Beyond Action Imitation: Learning a Decision-Aware User Simulator for Online Advertising
决策感知的用户模拟器DASH:融合思维链与跨域历史的广告行为仿真
🧭 决策感知的用户模拟器 ★ 深度解读
Tencent Inc. · National University of Singapore
提出DASH,通过异构上下文折叠和思维轨迹联合建模,提升广告用户仿真的动作准确性及诊断价值
📌 工作参考价值(4 点)
- 异构行为压缩:针对不同动作类型(跳过/点击/转化/负反馈)采用差异化压缩策略,保留全量高信息交互字段,低信息交互仅留类目元数据。电商/广告场景可通过类似分层压缩处理超长用户历史,在有限context下保留关键信号。
- 思维链生成与评估:让模拟器输出“Focus-Draft-Verify-Finalize”结构化思考链,带来可诊断性。可将此范式用于Agent策略验证或推荐解释,通过rubric奖励模型对思考质量的三个维度(形式/内容/逻辑)进行细粒度打分,替代稀疏的动作奖励。
- SFT-RL训练框架:利用强模型蒸馏思维轨迹做SFT,再用分组优势策略优化(GRPO)结合混合奖励(动作正确+思考质量)微调小模型。这种teacher-student方案可在保证仿真精度的同时满足在线低延迟要求,适合业务部署。
- 提示闭环优化:通过模拟器错误案例自动分析并迭代优化prompt,使模型输出的动作分布更接近真实分布。该思路可直接用于Agent交互式任务的提示工程,减少人工调试成本。